Hồ Văn Nhựt sinh ngày 15 tháng 7 năm 1905 tại làng Tân Qui Ðông (về sau đổi thành hộ Tân Qui Đông thuộc làng Tân Vĩnh Hòa), tổng An Thạnh Hạ, quận Châu Thành, tỉnh Sa Đéc, trong một gia đình nho giáo cổ truyền của miền Nam Việt Nam. Nơi ông sinh thuộc về Nam Kỳ thuộc Pháp trong thời Pháp thuộc.

Ông xin phép cha để lên Sài Gòn học trường Collège Chasseloup-Laubat (nay là Lê Quý Đôn) trong khu bản xứ (quartier indigène; bạn học là Vương Hồng Sển). Một thời gian sau, khi vẫn còn là một thiếu niên, ông đã sang Pháp để tiếp tục việc học vấn.